机器学习的一个显着缺点是模型能够更快地解决新问题，而不会忘记获得的知识。为了更好地理解这个问题，已经出现了持续的学习来系统地调查学习协议，其中模型顺序地观察由一系列任务产生的样本。首先，我们提出了一种促进学习和遗忘之间进行权衡的最优性原则。我们从有界合理性的信息化学制定中获得了这一原则，并显示了与其他连续学习方法的联系。其次，基于这一原则，我们提出了一种神经网络层，用于持续学习，称为变分的专家（移动），缓解遗忘，同时使知识有益转移到新任务。我们对MNIST和CIFAR10数据集的变型的实验表明，与最先进的方法相比，移动层的竞争性能。
translated by 谷歌翻译